Rank-Aware Hyperbolic Alignment for Vision-Language Dataset Distillation
秩感知双曲对齐的视觉语言数据集蒸馏
🧭 多模态数据集蒸馏 · 双曲对齐与低秩控制
Korea Advanced Institute of Science and Technology (KAIST) · Electronics and Telecommunications Research Institute (ETRI)
在双曲空间中对齐低秩共享语义并正则化残差子空间，提升多模态蒸馏的检索与迁移鲁棒性
📌 工作参考价值（4 点）
- 电商图文推荐的数据压缩：商品图与描述常呈低秩关联，RAHA 的双曲共享范围对齐与残差正则化可分离核心语义与噪声，用于构建紧凑的蒸馏训练集，降低训练成本。
- 多模态对齐中的鲁棒性提升：非对称测地线目标可避免强制全维对齐造成的过约束，适合图文匹配任务（如搜索广告素材优选）中对模态私有特征的保留。
- 联邦学习或隐私受限场景：借鉴蒸馏思想，用少量合成的代表点替代原始数据参与分布式训练，RAHA 的秩感知控制可保证下游模型泛化。
- 主要适用学术研究，业务迁移需额外适配双曲网络层与矩阵分解的工程实现，短期收益待验证。